Minimax Design of Factorable Nyquist Filters for Data Transmission Systems*

The use of Nyquist filters in data transmission systems is important in avoiding intersymbol interference. Moreover, the Nyquist filters should be factorable into Iowpass transmitter/received filter pairs. Here, the design problem is formulated so as to generate zero-phase FIR lowpass Nyquist filters that can be split into minimum and maximum phase parts. Two factorable minimax design methods are given. These methods use the McClellan-Parks algorithm as a first step to control the stopband behaviour. The time domain constraints, imposed by solving a linear system of equations, determine the passband response. The final filter exhibits equiripple stopband behaviour. The advantages of these methods are that the minimum and maximum phase parts are obtained without direct factorization and that arbitrary frequency weighting can be easily incorporated to allow for a nonequiripple behaviour. Design examples depict both equiripple and nonequiripple magnitude responses. The new design approach is compared with other methods in terms of both magnitude and group delay behaviour. Finally, a practical design that conforms to a CCITF voice band modem specification is shown. Zusammenfassung. Die Verwendung von Nyquist-Filtern ist fiir die Dateniibertragung wichtig, wenn Intersymbol-lnterferenzen vermieden werden sollen. Dariiberhinaus wiinscht man sich, daJ3 die Nyquist-Filter in TiefpaJ3-Eilterpaare fiJr die Sende und Empfangsseite zerlegt werden kEnnen. Im Folgenden wird das Entwurfsproblem so formuliert, dab nullphasige FIRNyquist-Tiefp/isse so bestimmt werden, daJ3 sic in einen minimalphasigen und einen maximalphasigen Teil aufgeteilt werden kEnnen. Zwei faktorisierbare Minimaxentwiirfe werden angegeben. Die Methoden verwenden den McClellan-ParksAlgorithmus als ersten Schritt, um das Sperrverhalten zu bestimmen. Das Durchla~verhalten wird durch Zeitbereichsvorschriften bestimmt, die in Form eines linearen Gleichungssystems eingebracht werden. Das fertige Filter zeigt TschebyschetiVerhalten im Sperrbereich. Die Vorziige dieser Methoden bestehen darin, dab die minimalund maximalphasigen Teilfilter ohne explizite Faktorisierung erhalten werden und daJ3 eine beliebige Frequenzgewichtung auf einfache Weise eingefiigt werden kann, mit der auch eine nicht-gleichm~i~ige Approximation erzielt werden kann. Entwurfsbeispiele sowohl mit als auch ohne Tschebyscheff-Verhalten der D/impfung werden gezeigt. Der neue Entwurfsansatz wird mit anderen Methoden hinsichtlich des Diimpfungswie des Gruppenlaufzeit-Verhaltens verglichen. Zum Schlu~ wird ein praktisches Entwurfsbeispiel gezeigt, das die Anforderungen fiir ein CCITT-Sprachband-Modem erfiillt. REsumE. ll est important d'utiliser des filtres de Nyquist dans les syst~mes de transmission numEriques en vue d'Eviter l'interfErence entre symboles. De plus, la factorisation des filtres de Nyquist en paires de filtres de transmission et de reception devra ~tre possible. Le probl~me de conception de ces filtres est formul6 de fa~:on ~t gEndrer des filtres pass-bas RIF ~ phase zero qui peuvent ~tre sEparEs en une section fi phase minimale et une section ~ phase maximal. Deux mEthodes de conception ~t factorisation minimax sont prEsentEes. Dans un premier temps, ces mEthodes font usage de l'algorithme de McClellan-Parks pour contrEler la rEponse dans la bande d'arrEt. Les contraintes sur la rEponse temporelle, imposEes par la solution d'un syst~me d'Equations, dEterminent la rEponse dans la bande passant. Le filtre resultant possbde une bande d'arr& possEdant des ondulations uniformes. Les avantages de ces mEthodes sont, d'un part, que les sections :~ phase minimale et h phase maximale sont obtenues sans factorisation directe, et d'autre part, qu'une pondEration frEquentielle arbitaire peut ~tre faqilement incorporEe pour permettre des ondulations non uniformes. Des examples montrent des rEponses en amplitude dans les cas uniformes et non uniformes. La nouvelle mEthode de conception est comparEe h d'autres mEthodes en termes de rEponse en emplitude et de dElai de groupe. Enfin, un exemple pratique de conception de filtre se conformant aux specifications du CCITT quant h la conception d'un modem/t bande vocale est prEsentE.